Multi-level checkpointing and silent error detection for linear workflows

We focus on High Performance Computing (HPC) workflows whose dependency graph forms a linear chain, and we extend single-level checkpointing in two important directions. Our first contribution targets silent errors, and combines in-memory checkpoints with both partial and guaranteed verifications. Our second contribution deals with multi-level checkpointing for failstop errors. We present sophisticated dynamic programming algorithms that return the optimal solution for each problem in polynomial time. We also show how to combine all these techniques and solve the problem with both fail-stop and silent errors. Simulation results demonstrate that these extensions lead to significantly improved performance compared to the standard single-level checkpointing algorithm. Key-words: resilience, fail-stop errors, silent errors, multi-level checkpoint, verification, dynamic programming. ∗ École Normale Supérieure de Lyon † INRIA, France ‡ University of Tennessee Knoxville, USA Checkpoint multi-niveaux et détection des erreurs silencieuses pour des graphes de tâches linéaires Résumé : Les erreurs fatales et silencieuses ne peuvent plus être ignorées sur des platesformes à grande échelle. Des techniques de résilience efficaces doivent accommoder les deux types d’erreurs. Une approche traditionnelle de checkpoint et points de reprise peut être utilisée, en rajoutant des vérifications afin de détecter les erreurs silencieuses. Une erreur fatale entraîne la perte de tout le contenu mémoire, d’où l’obligation de faire une sauvegarde sur un support fiable (typiquement un disque). Pour gérer plusieurs types d’erreurs fatales, nous utilisons une approche de checkpoint multi-niveau sur supports stables. Par contre, nous utilisons des checkpoints en mémoire pour les erreurs silencieuses, ce qui donne des surcoûts bien plus faibles. De plus, les détecteurs récents offrent des mécanismes de vérification partielle, qui sont moins coûteux que les vérifications garanties, mais qui ne détectent pas toutes les erreurs silencieuses. Nous montrons comment combiner toutes ces techniques pour des applications HPC dont le graphe de dépendances est une chaîne de tâches, et nous donnons plusieurs algorithmes de programmation dynamique qui renvoient la solution optimale en temps polynomial. Des simulations démontrent que l’utilisation combinée de checkpoint multi-niveaux et de vérifications améliore la performance. Mots-clés : résilience, erreurs fatales, erreurs silencieuses, checkpoint multi-niveaux, vérification, programmation dynamique. Multi-level checkpointing and silent error detection for linear workflows 3